OneSearch-VL：统一图像/视频的多模态深度研究 Agent
🧭 多模态深度研究 Agent 统一训练 ★ 深度解读
BUAA · CUHK · NTU · THU · HFUT
以视觉证据图 VGEG 与证据/定位双层奖励 EVGR 为核心，统一训练单图、多图、视频深度研究 Agent
📌 工作参考价值（4 点）
- 用显式证据图统一数据构造、SFT 轨迹过滤与 RL 过程奖励：在电商商品图像/视频理解中，可构建「视觉 anchor → 商品实体 → 来源化属性事实 → 答案操作」的 VGEG 结构，使商品问答/导购 Agent 的证据链路可追溯，便于生成训练数据和做细粒度评测。
- 把过程奖励拆成 evidence traceability + visual grounding 两个维度：最终答案正确之外，分别检验检索事实是否被工具观察支持，以及模型是否真的定位到正确商品区域/视频帧。消融显示两者同时使用比只用答案+query 奖励平均高 3.8 个点，适合迁移到电商多模态 Agent 的 RL 训练，降低幻觉和“不看图就答”。
- 评测按 research operation 分层，而不是只报总体准确率：单 anchor lookup、multi-hop、多 anchor join/comparison/arithmetic、knowledge-conditioned counting 等操作化分层，能定位 Agent 具体弱项；电商场景同样可以按“属性抽取、跨商品比较、规格计算、多图统计”拆 benchmark，避免平均分掩盖能力短板。
- 单图/多图/视频联合 SFT 有跨输入迁移收益：共用同一套 action-observation 工具 schema 和动作空间，联合训练达到 55.8 平均分，优于单类型训练；电商场景中商品主图、多角图、商品视频共用一套策略，可以减少多套系统维护成本并提升一致体验。
关注推理重点：选择性概率质量集中的跨模态注意力对齐
🧭 多模态训练 · 注意力对齐
University of Technology Sydney · East China Normal University · The University of New South Wales · Shanghai Jiaotong University · The Education University of Hong Kong
提出 sPMC 训练框架，仅对少量视觉grounding敏感注意力头做概率质量集中正则，零样本平均提升3%
📌 工作参考价值（4 点）
- 少而精的头选择正则：不全局约束所有注意力头，而是先识别对视觉证据 grounding 敏感的少数头（3%-15%），再做任务相关正则；可迁移到电商多模态商品理解/推荐理由生成，保留语言先验与通用能力，避免过正则导致性能下降。
- 用弱监督区域先验引导注意力：借助 segmentation mask / 商品主体框等空间先验，让文本到图像注意力概率质量向语义相关区域集中；无需大规模推理标注，对图文匹配、多模态搜索相关性建模有直接借鉴价值。
- 训练成本低、推理零开销：sPMC 只在训练阶段施加正则，不改推理架构，适合作为现有 MLLM 流程的插件式训练技巧；在电商 Agent 或多模态搜索中可较快验证。
- 注意力头功能分析可复用：Adaptive Head Selection 的思路可迁移到任何多模态 LLM 或推荐模型中，先探测头功能再定向优化，减少无效训练。
视觉检索头：揭示视觉语言模型如何定位与提取视觉信息
🧭 VLM 可解释性 · 视觉检索头
KAIST · Independent Researcher
发现 VLMs 中稀疏且因果的视觉检索头，负责将文本描述 grounding 到图像区域
📌 工作参考价值（4 点）
- 业务中用到 VLM（如商品图问答、广告素材理解）时，可通过 mask 少量 VRHs 快速验证定位能力是否关键，或做推理时的受控干预，提升输出可信度。
- 头打分方法（输出 token 对 GT 区域的 attention 求和）可作为诊断工具，评估多模态模型在特定业务数据上的视觉 grounding 质量，识别失败案例是模型定位偏差还是高层推理问题。
- VRHs 跨模型迁移（共享 LLM 主干）意味着可以在一个 VLM 上发现关键头，再迁移到同主干的其他 VLM，降低重复分析成本，用于模型压缩或推理加速。
- 整体上是机制解释的学术贡献，直接迁移到电商推荐/搜索系统还需结合具体业务数据做适配，不建议直接照搬。
零样本视觉-语言控制中的视觉接地评估与守护
🧭 VLM视觉接地评估与选择性辅助守护
BARCELONA Supercomputing Center · Universidad Pontificia Comillas · University of Florida · University of Illinois Urbana-Champaign · LUXEMBOURG Institute of Science and Technology
输入消融实验揭示VLM零样本控制普遍缺乏视觉接地，对称共识守护者实现可靠危险检测。
📌 工作参考价值（3 点）
- 对称一致性守卫：利用原始与反射视图的预测一致性筛选可靠模型，此法可迁移至多模态推荐——对商品图片做水平翻转等增广，检查模型预测是否对称，剔除不一致的弱模型，提升鲁棒性。
- 输入消融诊断：盲图、重复帧、反射对照组能暴露模型是否真正利用视觉信息。可仿照设计线上诊断流程，排查推荐模型中的模态依赖假象。
- 选择性弃权策略：在低置信度时弃权，牺牲少量覆盖换取大幅精度提升，适合电商风控或内容审核等高风险场景，结合阈值动态开关辅助决策。
ADAPT：通过注意力动态对齐与偏好调优实现可信多模态大模型
🧭 MLLM幻觉缓解 · 跨注意力动态干预
University of Science and Technology of China · Huawei Technologies Ltd. · State Key Laboratory of Communication Content Cognition, People's Daily Online
从文本-图像跨注意力退化中检测并纠正幻觉，结合视觉锚点与偏好对齐，将主流模型幻觉率降低40%–60%
📌 工作参考价值（4 点）
- 生成式推荐中的视觉锚定：在商品文案、图文搭配生成时，可借鉴ADAPT的早期解码提取视觉锚点，约束后续生成对图像关键区域保持高注意力，减少描述与图像不符的幻觉。
- 在线注意力漂移检测与修正：在Agent多模态交互（如视觉问答、商品搜索）中，可监控跨注意力分布的熵或偏移量，实时触发重聚焦或重新解码，提升回复的视觉忠诚度。
- 偏好数据构造新思路：利用注意力质量作为对比信号，自动筛选视觉grounding好的响应作为正例，无需人工标注即可构造DPO偏好对，低成本提升模型对齐效果。
- 模型架构无关的轻量插件：该方法无需修改原模型结构，只改变推理时的注意力使用与少量微调，可快速集成到现有MLLM pipeline中，适合业务快速验证与迭代。
视觉锚定思维：VLMs推理步骤与图像区域显式关联
🧭 多模态推理 · 视觉定位强化学习
University of California, Los Angeles
通过在文本思维中插入点/框级视觉定位，显著提升VLM计数和空间推理性能
📌 工作参考价值（4 点）
- 电商多模态Agent可借鉴该方法，对商品图片进行属性验证时，在推理链中显式锚定图像区域（如领口、logo位置），提升判别可解释性与准确率。
- 合成数据管线利用SAM3自动提取掩码并生成点/框监督，可低成本构建商品图像问答或合规审核的接地推理数据，减少人工标注。
- 接地感知RL（答案正确+密集接地奖励）的多奖励框架，可迁移到微调多模态推荐模型，使其输出推荐理由时精准指向图片关键证据。
- 点定位适合计数、框定位从空间奖励中获益更多的结论，可指导电商图文推荐中不同任务（如数量统计 vs. 布局合规）的接地策略选择。
MMSkills：面向通用视觉智能体的多模态技能框架
🧭 视觉智能体 · 多模态技能复用
Shanghai Jiao Tong University · Xiaohongshu Inc. · Southeast University
提出多模态技能包（状态卡片+关键帧+文本过程），并通过分支加载机制提升视觉Agent决策。
📌 工作参考价值（4 点）
- 可借鉴多模态技能包构建方式：将电商操作流程（如商品搜索、下单）封装为文本过程+关键状态截图+状态描述卡片，减少Agent推理时的图像上下文开销。
- 利用非评测的用户交互轨迹（如公开的购物会话）自动生成可复用技能库，通过工作流分组和视觉接地减少人工标注成本。
- 分支加载机制可集成到电商Agent中：在临时上下文里对比当前界面与技能包中的关键帧，对齐状态后才给出操作建议，避免直接参考静态截图导致的过锚定。
- 多模态过程知识对外部技能库的补充思路，可推广到生成式推荐中的多模态用户意图理解，用类似状态卡片描述用户当前搜索上下文。